Die EU-Kommission arbeitet an einem Gesetzentwurf, der Diensteanbieter verpflichten könnte, anlasslos und massenhaft die Inhalte von digitalen Endgeräten nach Darstellungen von sexualisierter Gewalt gegen Kinder zu durchsuchen. Diese sogenannte „Chatkontrolle“ soll stattfinden, bevor eine Nachricht oder ein Video überhaupt verschickt wird. Das bedroht nicht nur die IT-Sicherheit, sondern elementare Grundrechte wie Privatsphäre und Meinungsfreiheit, finden Kritiker:innen.
Wie genau die Pläne der EU-Kommission aussehen, ist noch nicht bekannt, sie hat die Veröffentlichung eines Entwurfs wiederholt verschoben und nun Ende März als Termin angesetzt. Nun hat EDRi, ein Zusammenschluss von 45 europäischen digitalen Bürgerrechtsorganisationen, ein Positionspapier verfasst, das auch in deutscher Übersetzung vorliegt. Es stellt sich deutlich gegen eine Durchsuchung privater Kommunikation und zeigt Alternativen, wie der Kampf gegen sexualisierte Gewalt ablaufen kann, ohne elementare Grundrechte aller zu verletzen.
EDRi fordert unter anderem, dass zehn Grundsätze erfüllt werden müssen, um sicherzustellen, damit die Verhältnismäßigkeit bei zukünftigen Gesetzen gegen Kindesmissbrauch im Netz gewahrt bleibt.
„Massenüberwachung niemals zu rechtfertigen“
Der wichtigste und erste Punkt ist dabei: Es darf keine Massenüberwachung geben. Das pauschale, automatische Scannen privater Kommunikation sei ein unverhältnismäßiger Eingriff in das Recht auf Privatsphäre, heißt es im Papier. Egal zu welchen Zwecken, seien solche Praktiken „in einer demokratischen Gesellschaft niemals zu rechtfertigen“.
Statt Massenüberwachung müsse der individuelle, spezifische und begründete Verdacht Grundlage für zielgerichtete Überwachung sein. Dieser Verdacht dürfe nicht aus einer Massenüberwachung privater Kommunikation heraus entstehen und setze auch eine richterliche Anordnung voraus.
EDRi fordert zudem, dass die Maßnahmen von unabhängigen Datenschutzbehörden überprüft werden müssen. Existierende Meldemechanismen, die heute bei der Durchsuchung von Diensten wie Facebook schon existieren, sollen dabei auch kontrolliert werden, zum Beispiel in Hinblick auf falsch-positive Meldungen. Dabei geraten Menschen ins Visier, weil die Systeme fälschlicherweise ihre Kommunikationsinhalte als verdächtig markieren. Für Meldesysteme sollen Datenschutzfolegabschätzungen erarbeitet werden, welche die Mechanismen und ihre Auswirkungen auf den Datenschutz genau untersuchen.
Verbot von Client-Side-Scanning gefordert
Auch in Sachen IT-Sicherheit legt EDRi vor: „Unabhängige Sicherheitsexperten und die Zivilgesellschaft müssen Zugang zu den technischen Details aller vorgeschlagenen Werkzeuge oder Technologien haben, um beabsichtigte oder unbeabsichtigte Risiken zu bewerten“, heißt es im Papier. „Maßnahmen, die Geräte unsicher und anfällig für böswillige Akteure machen“, sollten nicht zugelassen werden. Dazu zählen die Organisationen das Client Side Scanning, bei dem Inhalte auf den Endgeräten der Nutzer:innen analysiert werden. Alle Maßnahmen zur Bekämpfung von Kindesmissbrauchsinhalten sollen „Verschlüsselung als wichtige Sicherheitsmaßnahme respektieren und dürfen ihre Entwicklung, Verfügbarkeit oder Verwendung nicht in einer Weise untergraben, die sich auf alle Nutzer des Kommunikationsdienstes auswirkt.“
Die Bürgerrechtsorganisationen verlangen, sexualisierte Gewalt gegen Kinder grundlegend anzugehen. „Technologische Lösungen sind kein Allheilmittel für komplexe gesellschaftliche Probleme“, heißt es dort. Stattdessen fordern sie etwa einen Ausbau von Präventionsangeboten und eine bessere Unterstützung der Opfer sowie Investitionen in die gesellschaftliche Bekämpfung der Gewalt. Hierfür sei ein Dialog verschiedenster gesellschaftlicher Akteur:innen nötig.
„Totale Kontrolle der Kommunikation“
Mitglied bei EDRi sind mehr als 45 digitale Bürgerrechtsorganisationen aus ganz Europa, unter ihnen auch Digitalcourage und die Digitale Gesellschaft. Konstantin Macher von Digitalcourage sagt gegenüber netzpolitik.org: „Chatkontrolle verkehrt das Prinzip des digitalen Briefgeheimnisses ins Gegenteil: Statt die private Kommunikation von Bürger:innen vor Unternehmen zu schützen, sollen Unternehmen jetzt sogar verpflichtet werden, alles und alle zu durchleuchten.“
Auch Tom Jennissen von der Digitalen Gesellschaft kritisiert die Chatkontrolle. Diese schaffe eine gefährliche Infrastruktur und ermögliche eine totale Kontrolle der gesamten Kommunikation. „Sobald das einmal etabliert ist, liegt eine Ausweitung nahe. Ein Filter, der für Missbrauchsdarstellungen installiert wurde, kann eben auch auf andere Kommunikation ausgeweitet werden. Zur Überwachung von vermeintlichen Terroristinnen, Drogendealern oder auch politischen Dissidentinnen lässt sich der Filter leicht anpassen.“
Update 16:47 Uhr:
Deutsche Version des Positionspapiers (PDF) in den Text eingefügt.
Mir ist unklar wie diese „Chatkontrolle“ technisch bei Open Source Clients mit E2E Verschlüsselung funktionieren könnte.
Ganz einfach: man verbietet die nicht. Man verpflichtet die Hersteller der Geraete/Betriebssysteme dazu, dafuer Sorge zu tragen, dass nur Chatsoftware mit Kontrollfunktion installiert werden kann.
Wie die Zeit vergeht, früher war alles besser.
https://archive.nytimes.com/www.nytimes.com/library/tech/99/11/cyber/articles/19encrypt.html
Denkbar ist der Weg über die kommerziellen Betriebssysteme. Das deckt einen riesigen Marktanteil ab.
Der kleine Rest darf sich mit sich selbst unterhalten, das stoert kaum. Und wenn es dann doch mal stoeren sollte, ist die gezeigte erhebliche Energie zum aktiven Unterlaufen von Massnahmen ausreichend, um einen Durchsuchungsbeschluss mit Beschlagnahme aller Geraete zu bekommen.
Das nehme ich auch an. Was viel Reichweite bekommt, wird in der Regel auch einen Finanzhebel haben, noch vor Wohnungsdurchsuchungen.
„Interessant“ wäre noch zu wissen, wie die Filteraktivität so aussehen darf. Magische Ergebnisse postulieren, die funktionieren, kann nicht jeder. Leider ist sowas noch in allerlei Gesetzesförmchen eingefüllt, und wartet darauf, samt Volk durchgebacken zu werden. Muss dann jedes Unternehmen im Kleinkindsalter mit Nutzern in Krabbelgruppenstärke Filter haben, die es nicht bauen kann…
Das wäre ein Kantersieg der Bösen dieser Zeit. Wer da mitmacht, sollte sich aller möglichen Konsequenzen bewusst sein, und/oder es besser sein lassen.
Am Besten gibt es dann nur den Filter aus Nordkorea, weil die das am Besten können. So ist bestens dafür gesorgt, dass die besten Ideen aus lokalen Chatgruppen bestmöglich abgefischt werden. Noch besser geht es dann mit Client-Side Scans, und wir reden ja nicht über die erstbeste Runde. Patent weg, bevor es überhaupt ausformuliert war – das Beste zum Schluss: modernes Pech!
Ich vermute: nicht.
Die wenigen Freaks sind nicht das Problem. Was passiert, wenn die gesamte Pedoszene auf einen bestimmten Open-Source-Client umsteigt, weiß ich natürlich nicht.
Die Reichweitenstarken Sachen, die mehr als nur Text bieten, haben auch einiges an Kosten, so dass es in der Regel für besonders reichweitenstarke Geschichten auch einen Kostenhebel gibt.
Für Laien erscheint wohl öfters sinnvoll, Scans auf Seiten der Clients zu bevorzugen. Die Zahl der Serverbetreiber bei Computerspielen, die sowas interessant zu finden scheinen, ist regelmäßig höher als die entsprechende Zahl für Entwickler (Kontext: Anti-Cheat). Politik ist ja noch schlimmer, quasi Ruderer am Steuer (Dauerndes hin und her, aber es geht im wesentlichen geradeaus, mit leichtem Einschlag Richtung Wasserfall).
Werden wir da nicht technokratischer (auf Seiten der Demokratie), wird es mit dem Erhalt einer Demokratie sehr sehr schwer. „Mehrheiten erzeugen“ ist meiner Einschätzung nach kein zielführendes Mittel, wenn die Menge bei grundlegenden Fragen zu gleichgültig ist, das wäre einfach nur eine ewige Schießbude. Die haben wir ja im Grunde schon, trotz Verfassung, gerade wegen der Gleichgültigkeit. Verantwortlich wäre, dann eben auf echte Information zu setzen, damit die Menschen eine Idee bekommen – im Zweifel muss es eben nach Wissenschaft und Verfassung gehen. Gemeint ist nicht, (gehörige) Mehrheiten von Zustimmung oder Ablehung zu ignorieren.